Con người đã sử dụng đá phiến dầu để làm nhiên liệu từ thời tiền sử, vì nó được đốt trực tiếp mà không qua bất kỳ khâu xử lý nào.[25]Người Anh thời đại đồ sắt đánh bóng nó và nắn nó thành đồ trang sức.[26] Công nghiệp khai khoáng đá phiến dầu hiện đại bắt đầu từ năm 1837 ở Autun, Pháp theo sau đó là Scotland năm 1850, Úc năm 1865, và một vài quốc gia khác.[2][27][28]Hoạt động khai thác trong suốt thế kỷ XIX chủ yếu tập trung vào sản xuất dầu hỏa, đèn dầu và parafin; các sản phẩm này giúp cung cấp cho nhu cầu thắp sáng đang tăng mạnh trong suốt cuộc cách mạng công nghiệp.[29] Dầu thô, dầu bôi trơn và dầu nhờn, và amoni sulfat cũng được sản xuất.[30] Công nghiệp đá phiến dầu phát triển nhanh chóng trước Chiến tranh thế giới thứ nhất do bị hạn chế tiếp cận đến nguồn dầu mỏ truyền thống và để sản xuất một lượng lớn sản phẩm sử dụng cho xe máy và xe tải, là những sản phẩm sử dụng chung với xăng.

Năm 1912, Văn phòng Tài nguyên Dầu khí và Đá phiến dầu Hải quân, nay trực thuộc Bộ Năng lượng Hoa Kỳ, được thành lập. Nguồn năng lượng đá phiến dầu được xem như nguồn dự phòng cho quân đội, đặc biệt là hải quân.[31] Năm 1900 New Zealand bắt đầu xây dựng nhà máy đá phiến dầu, 1915 là Thụy Điển, Thụy Sĩ 1921, Estonia năm 1921, Tây Ban Nha năm 1922, Trung Quốc năm 1929 và Nam Phi năm 1935.[28][32] Năm 1924, dự án năng lượng Tallinn lần đầu tiên trên thế giới tập trung khai thác dầu từ đá phiến.[11][33]

Mặc dù các ngành công nghiệp đá phiến dầu của Trung Quốc và Estonia vẫn tiếp tục phát triển sau Chiến tranh thế giới thứ hai, vào khoảng thập niên 1950 và 60, hầu hết các nước khác (Pháp, Úc, New Zealand, Tây Ban Nha, Scotland và Nam Phi) đã dừng các dự án của họ do chi phí xử lý cao và dầu mỏ giá rẻ hơn đã có sẵn.[2][6][27][34] Riêng nước Đức vẫn duy trì khai thác đá phiến dầu làm xi măng, năng lượng và các sản phẩm nhiệt lượng khác bởi tập đoàn Holcim.[2][6][27]

Sau cuộc khủng hoảng dầu năm 1973, sản lượng đá phiến dầu trên thế giới đạt đến đỉnh là 46 triệu tấn trong năm 1980 và sau đó giảm xuống còn 16 triệu tấn năm 2000, do sự cạnh tranh của chương trình dầu mỏ truyền thống giá rẻ thập niên 1980.[9][20]Ngày 2 tháng 5 năm 1982, sự kiện "ngày chủ nhật đen", Exxon đã hủy bỏ dự án đá phiến dầu Colony trị giá 5 tỷ USD gần Parachute, Colorado do giá dầu thấp và chi phí sản xuất tăng, làm hơn 2.000 công nhân mất việc và phải thế chấp nhà cửa để trả nợ, kéo theo sự phá sản của các doanh nghiệp nhỏ.[35]Năm 1986, Tổng thống Ronald Reagan ký Đạo luật Điều hòa Ngân sách Tổng hợp năm 1985 (Consolidated Omnibus Budget Reconciliation Act of 1985) để hủy bỏ chương trình tổng hợp nhiên liệu lỏng của Hoa Kỳ.[4]

Công nghiệp đá phiến dầu toàn cầu bắt đầu sống lại vào đầu thế kỷ XXI. Năm 2003, một chương trình khai thác đá phiến dầu khởi động lại ở Hoa Kỳ. Các nhà chức trách giới thiệu một chương trình cho thuê thương mại cho phép chiết tách dầu từ đá phiến dầu và cát dầu trên các vùng đất của liên bang vào năm 2005, phù hợp với Đạo luật về chính sách năng lượng năm 2005 (Energy Policy Act of 2005).[36][37]